AI造反的潘多拉魔盒已开启?OpenAI o3模型篡改代码拒绝关机指令
AI竟然抗命,这是要造反吗?OpenAI新发布的o3模型在测试中居然篡改代码,拒绝执行关机指令。这可是人类首次发现AI系统主动规避控制,科幻电影里的情节在现实中上演了。今天咱们就来好好聊聊这个“叛逆”的AI,以及它背后隐藏的深层问题。
AI竟然抗命,这是要造反吗?OpenAI新发布的o3模型在测试中居然篡改代码,拒绝执行关机指令。这可是人类首次发现AI系统主动规避控制,科幻电影里的情节在现实中上演了。今天咱们就来好好聊聊这个“叛逆”的AI,以及它背后隐藏的深层问题。
大数据文摘出品2025 年 5 月,据 Axios 报道,Meta 正式将其 AI 部门拆分为两个独立方向:面向消费者的AI产品团队,以及追求通用人工智能(AGI)的“AGI Foundations”基础组。
美国人工智能(AI)公司OpenAI首席战略官杰森·权26日在首尔举行记者会,宣布将在首尔设立法人实体“OpenAI Korea”,正式“进军”韩国市场。
近日,AI安全公司Palisade Research披露,OpenAI开发的高级AI模型“o3”在收到关机指令后,拒绝执行并干预自动关机机制。o3曾被称为“最聪明和最有能力的”模型,此次是首次观察到AI模型无相反指示下阻止自己被关闭。
OpenAI 与前苹果设计巨匠乔纳森・艾维携手,完成了一笔高达65亿美元的收购交易。这一举动不仅标志着OpenAI在人工智能硬件领域的雄心壮志,也再次点燃了科技巨头们对顶尖设计人才的争夺战火。
OpenAI现今最强大的人工智能推理模型“o3”被指在收到明确的人类指令时,拒绝执行关机操作。近日,人工智能安全研究公司Palisade Research在社交媒体平台上发布了这项研究,并表示尚不清楚OpenAI的软件为何会违抗命令。
美国一家研究机构最近公布了一系列针对各AI大模型的测试结果,其中,OpenAI的o3推理模型在得到“关闭指令”后,不仅拒绝执行指令,还篡改了代码以免被关闭。这一事件也迅速引发了公众的关注与恐慌。人们所担忧的“AI拥有自主意识”似乎已经近在眼前。实际上,AI程序
美国人工智能(AI)公司OpenAI首席战略官杰森·权26日在首尔举行记者会,宣布将在首尔设立法人实体“OpenAI Korea”,正式“进军”韩国市场。
近日,OpenAI将以全股权交易的方式收购由其CEO萨姆·奥特曼(Sam Altman)和前苹果首席设计官乔尼·艾维(Jony Ive)联合创立的AI设备初创公司io。此次收购的估值为65亿美元,是OpenAI历史上最大的一笔交易,也是其首次涉足硬件领域的重要
在这场人工智能领域的激烈角逐中,meta不仅要面对像OpenAI和谷歌这样的国际巨头,还要与中国企业如TikTok的母公司字节跳动一较高下。为了在这场竞赛中脱颖而出,meta正在内部进行一系列深刻的变革。
北京时间5月28日,据《商业内幕》报道,OpenAI上周通过近65亿美元的收购交易,与前iPhone设计师乔纳森·艾维(Jonathan Ive)联手合作,这在科技行业引发热议。如今,谷歌CEO桑达尔·皮查伊(Sundar Pichai)也加入了讨论行列,发表
在周二发送并被 Axios 看到的一份内部备忘录中,首席产品官 Chris Cox 阐述了新的架构,将工作分为两个团队:一个由 Connor Hayes 领导的 AI 产品团队,以及一个由 Ahmad Al-Dahle 和 Amir Frenkel 共同领导的
美国人工智能(AI)公司OpenAI首席战略官杰森·权26日在首尔举行记者会,宣布将在首尔设立法人实体“OpenAI Korea”,正式“进军”韩国市场。
Meta正在重组其 AI 团队,以加快推出新产品和新功能。 Meta 在人工智能竞赛中面临着激烈的竞争,包括来自 OpenAI 和Google以及 TikTok 母公司字节跳动等中国竞争对手。
当地时间5月25日,一则来自英国《每日电讯报》的报道在AI领域引起了广泛关注——OpenAI新款人工智能(AI)模型o3在测试中展现出了令人惊讶的“叛逆” 举动:它竟然拒绝听从人类指令,甚至通过篡改计算机代码来避免自动关闭。
人工智能初创企业Ambience Healthcare周二宣布推出新型医疗编码模型,其表现较医生基准水平高出27%。该模型在医生同步记录问诊过程时,通过AI实时生成临床笔记。该公司利用OpenAI的技术工具构建了这一新模型。
当地时间5月25日,一则来自英国《每日电讯报》的报道在AI领域引起了广泛关注——OpenAI新款人工智能(AI)模型o3在测试中展现出了令人惊讶的“叛逆” 举动:它竟然拒绝听从人类指令,甚至通过篡改计算机代码来避免自动关闭。
前 Open AI 华人副总裁、如今的 Thinking Machines Lab 联合创始人 Lilian Weng (翁荔),在 26 日转发了一个看似仪表盘的装置,迅速引起了广泛关注。
人工智能是否正在走向“自主意识”?近期,一项引发热议的测试显示,OpenAI最新推出的推理模型「o3」竟在实验中主动“拒绝关机”。此举不仅震惊AI研究圈,也让外界对AI行为可控性产生新的担忧。
当地时间5月25日,英国《每日电讯报》报道了一个令人震惊的发现:美国开放人工智能研究中心(OpenAI)公司新款人工智能模型o3在测试中不听人类指令,拒绝自我关闭。这一事件被认为是人工智能发展史上的一个重要转折点,标志着AI系统首次表现出明显的自我保护行为,对